Un raport a constatat că algoritmul Instagram promovează conținut de pedofilie: ce a răspuns Meta, cum se apără

Meta promite că va lua măsuri după ce un raport a constatat că algoritmul Instagram promovează conținut de pedofilie.

„Exploatarea copiilor este un lucru îngrozitor”, a spus Meta.

„Investigăm continuu modalități de a ne apăra în mod activ împotriva acestui comportament”.

Meta a înființat un grup de lucru intern, după ce jurnaliștii și cercetătorii au descoperit că sistemele sale au ajutat să „conecteze și să promoveze o rețea vastă de conturi” dedicate conținutului pentru minori, a raportat The Wall Street Journal. Spre deosebire de forumuri și servicii de transfer de fișiere, Instagram nu numai că găzduiește astfel de activități, ci le promovează prin algoritmii săi. Compania a recunoscut problemele de aplicare și a luat măsuri, inclusiv restricționarea sistemelor sale de la recomandarea căutărilor asociate cu abuzul sexual.

Cum se apără Meta de scandal

Împreună cu grupul de lucru, Meta a declarat că lucrează la blocarea rețelelor de materiale de abuz sexual asupra copiilor (CSAM) și ia măsuri pentru a-și schimba sistemele. În ultimii doi ani, a distrus 27 de rețele pedofilie și lucrează la eliminarea mai multor. A blocat mii de hashtag-uri asociate (cu milioane de postări pentru unii) și a luat măsuri pentru a împiedica sistemele sale să recomande termeni legați de CSAM. De asemenea, încearcă să împiedice sistemele sale să conecteze potențialii agresori între ei.

Cu toate acestea, raportul ar trebui să fie un semnal de alarmă pentru Meta, a declarat fostul șef de securitate al companiei, Alex Stamos, pentru WSJ.

„Faptul că o echipă de trei academicieni cu acces limitat ar putea găsi o rețea atât de mare ar trebui să declanșeze alarme la Meta”, a spus el, menționând că compania are instrumente mult mai bune decât investigatorii externi pentru a mapa rețelele CSAM

„Sper ca compania să reinvestească în anchetatori umani”.

Meta a spus că încearcă în mod activ să elimine astfel de utilizatori, după ce a eliminat 490.000 de conturi care încalcă politicile de siguranță a copiilor doar în ianuarie. Statisticile sale interne arată că exploatarea copiilor apare în mai puțin de una din zece mii de postări.